Tháng 5 năm 1945, ông được ra tù. Ngay lập tức, ông bắt liên lạc và hoạt động trong Mặt trận Việt Minh của tỉnh. Ngày 23 tháng 5 năm 1945, ông tham gia Hội nghị Ban chấp hành Việt Minh tỉnh Thừa Thiên (lấy biệt danh Việt Minh Nguyễn Tri Phương) và tham gia Ban thường vụ gồm 5 người là Hoàng Anh, Lê Dĩnh, Lê Tự Đồng, Trần Thanh Từ, Mỹ Sơn (Bí thư). Thời gian này, ông sử dụng các bí danh Bình hoặc Hoàng để hoạt động bí mật.

Khi Việt Minh chuẩn bị giành chính quyền tại Thừa Thiên Huế, ông được giao công tác tiếp xúc và vận động các bộ trưởng trong Chính phủ Trần Trọng Kim[5]. Trong danh sách Ủy ban Khởi nghĩa tỉnh Thừa Thiên công bố ngày 20 tháng 8 năm 1945, ông giữ chức vụ Phó Chủ tịch[6], dưới quyền Chủ tịch Tố Hữu. Ba ngày sau, ngày 23 tháng 8, Ủy ban nhân dân Cách mạng Lâm thời tỉnh Thừa Thiên được thành lập, ông lại được cử làm Phó Chủ tịch dưới quyền Chủ tịch Tôn Quang Phiệt[7]. Chính ông là người cùng với Phan Tử Lăng và một số cán bộ chỉ huy tổ chức bắt giữ nhóm nhảy dù của Thiếu tá Castella (đặc phái viên của tướng De Gaulle) ngày 26 tháng 8 năm 1945.[8]

Tháng 1 năm 1946, ông trúng cử là Đại biểu Quốc hội khóa I của đơn vị bầu cử tỉnh Thừa Thiên[9]. Tháng 3 năm đó, ông được cử làm Chủ tịch Ủy ban Hành chính tỉnh Thừa Thiên[10]. Sau khi Pháp tái chiếm Đông Dương, tháng 11 năm 1946, ông được cử tham gia Ủy ban Kháng chiến Thừa Thiên[11], dưới quyền Chủ tịch Hà Văn Lâu. Khi Ủy ban Kháng chiến Thừa Thiên được cải thành Ủy ban Hành chính Kháng chiến Thừa Thiên ngày 28 tháng 7 năm 1947, ông một lần nữa được cử vào chức vụ Chủ tịch[12]. Ông cũng được bầu là Bí thư Tỉnh ủy Thừa Thiên, Bí thư Phân khu ủy kiêm Chủ tịch Ủy ban Hành chính Kháng chiến mặt trận Bình Trị Thiên. Năm 1948, ông được chỉ định làm Bí thư Liên khu ủy Khu 4.

Tháng 2 năm 1951, tại Đại hội đại biểu lần II của Đảng, ông được bầu vào Ban Chấp hành Trung ương Đảng Lao động Việt Nam.

Tháng 11 năm 1953, ông được Trung ương cử trực tiếp chỉ đạo chính quyền Việt Minh ở Thanh Hóa tổ chức mở đường 41 lên Điện Biên Phủ cũng như tổ chức các hoạt động tiếp tế chi viện cho Chiến dịch Điện Biên Phủ đầu năm 1954.

Sau chiến thắng Điện Biên Phủ, ông được Trung ương điều ra Bộ Quốc phòng tham gia Tổng quân ủy với cấp bậc Đại tá, phụ trách theo dõi thi hành Hiệp định Genève, 1954.[13]

Sau Hiệp định Genève, ông ở lại miền Bắc, tiếp tục công tác trong Quân ủy Trung ương, Thứ trưởng Bộ Quốc phòng.